Do không quen với khí hậu nóng ẩm ở Lĩnh Nam, các binh sĩ của Hoàng Sào mắc dịch bệnh, khoảng 30%-40% binh sĩ thiệt mạng. Khi các chư tướng đề xuất nên hành quân về lại phương bắc, Hoàng Sào thấy sĩ khí quân sĩ xuống thấp nên chấp thuận. Hoàng Sào cho kết bè tại Quế châu và xuôi theo Tương Giang tiến đến Đàm châu- thủ phủ của Hồ Nam - vào mùa đông năm 879. Quân Hoàng Sào liên tục hạ Vĩnh châu[chú 24] và Hành châu [chú 25]. Khi quân Hoàng Sào tiến đến Đàm châu, Lý Hệ lo sợ vội đóng cổng thành cố thủ, song Hoàng Sào chỉ mất một ngày để chiếm Đàm châu, máu 10 vạn quân Đường nhuộm đỏ Tương Giang, Lý Hệ chạy trốn đến Lãng châu[chú 26]. Thượng Nhượng thừa thắng truy kích, đem 50 vạn quân tiến sát thủ phủ Giang Lăng của Kinh Nam, nơi Vương Đạc đang trấn thủ. Vương Đạc cũng hoảng sợ và bỏ chạy đến Tương Dương[chú 27], để lại thành cho thuộc hạ là Lưu Hán Hoành trấn thủ, song ngay khi Vương Đạc dời đi, Lưu Hán Hoành tiến hành binh biến, cướp phá thành và biến binh sĩ dưới quyền thành đội quân cướp bóc.[3]

Hoàng Sào đích thân đi bè theo Tương Giang và qua Giang Lăng để tiến công Tương Dương- thủ phủ của Sơn Nam Đông đạo. Tuy nhiên, Hoàng Sào chiến bại trước liên quân của Sơn Nam Đông đạo tiết độ sứ Lưu Cự Dung (劉巨容) và tướng triều đình là Truy châu thứ sử Tào Toàn Trinh (曹全晸) ở Kinh Môn [chú 28]. Hoàng Sào và Thượng Nhượng thu dư chúng vượt sang Giang Đông chạy trốn, song bị truy kích đến tận Giang Lăng. Tuy nhiên, Lưu Cự Dung lại lo ngại rằng nếu bắt Hoàng Sào thì ông ta sẽ không còn được triều đình xem trọng, vì thế quyết định ngừng lại việc truy kích. Ngay khi Tào Toàn Trinh vượt Trường Giang, triều đình Đường mệnh Thái Ninh đô tướng Đoàn Ngạn Mô (段彥謨) thay thế chức Chiêu thảo sứ của Tào Toàn Trinh, Tào cũng thôi không truy kích. Sau đó, Hoàng Sào tiến về phía đông và tiến công Ngạc châu[chú 29], và cướp phá 15 châu xung quanh. Tháng 3 ÂL năm Quang Minh thứ 1 (880), Cao Biền phái kiêu tướng Trương Lân vượt sang bờ nam Trường Giang đánh chặn Hoàng Sào, Hoàng Sào thoái thủ Nhiêu châu[chú 30]. Trương Lân thừa thắng tiến quân, đến tháng 5 ÂL, Hoàng Sào lại thoái thủ Tín châu[chú 31]. Do các chiến công của Trương Lân và tiến cử của tể tướng Lô Huề, triều đình Đường cho Cao Biền làm Chư đạo hành doanh binh mã đô thống, thay thế vị trí của Vương Đạc.[3]

Hoàng Sào quyết định hối lộ để thoát khỏi tình thế khó khăn, gửi nhiều vàng cho Trương Lân và viết một lá thư cầu xin Cao Biền, đề nghị được quy phục triều đình. Cao Biền cũng muốn sử dụng thủ đoạn gian trá để bắt Hoàng Sào, đề nghị sẽ tiến cử Hoàng Sào làm tiết độ sứ. Hơn thế nữa, Cao Biền do muốn nhận công lao về phía mình nên triệu hồi quân tiếp viện từ Chiêu Nghĩa[chú 32], Cảm Hóa[chú 33], và Nghĩa Vũ[chú 34]. Tuy nhiên, khi biết các đạo quân Đường vượt sang bờ bắc Hoài Hà, Hoàng Sào lập tức tuyệt giao với Trương Lân. Đến tháng 5, quân Hoàng Sào tiến về phía bắc, thừa thắng công chiếm Mục châu[chú 35], Vụ châu[chú 36]. Cao Biền tức giận và lệnh cho Trương Lân tiến đánh, song lần này, vào mùa xuân năm 880, Hoàng Sào đánh bại dứt khoát và giết chết Trương Lân ở Tín châu, khiến Cao Biền hoảng sợ.[3]

Tháng 6 ÂL, sau khi đánh bại Trương Lân, Hoàng Sào tương kế tiến công Trì châu[chú 37], Mục châu, Vụ châu, Tuyên châu. Sang tháng 7 ÂL, tại Thái Thạch[chú 38], quân Hoàng Sào vượt sang bờ bắc Trường Giang. Quân Hoàng Sào bao vây các tiền đồn phòng thủ của Hoài Nam là Thiên Trường[chú 39] và Lục Hợp[chú 40], không xa đại bản doanh của Cao Biền tại Dương châu. Tất Sư Đạc lúc này đang phụng sự cho Cao Biền, người này đề xuất Cao Biền nên dẫn quân giao chiến với Hoàng Sào, song Cao Biền lại rất sợ giao chiến với Hoàng Sào sau cái chết của Trương Lân, vì thế Cao Biền thượng biểu xin triều đình cứu viện khẩn cấp. Triều đình Đường trước đó kỳ vọng vào thắng lợi của Cao Biền, nay nhận được tin thì hết sức thất vọng và trở nên hoảng sợ. Đường Hy Tông hạ chiếu chỉ cho các quân ở bờ nam Hoàng Hà phái quân đến Ân Thủy[chú 41] để ngăn Hoàng Sào tiến sâu hơn, và cũng khiển Cao Biền cùng Thái Ninh tiết độ sứ Tề Khắc Nhượng ngăn chặn Hoàng Sào. Tuy nhiên, Cao Biền không thể khiến đội quân 15 vạn lính của Hoàng Sào phải dừng lại.[3]

Vào thời điểm này, một cuộc binh biến trong hàng ngũ quân triều đình chấm dứt các nỗ lực kháng cự của họ tại Ân Thủy. Khoảng 3.000 binh sĩ Cảm Hóa quân đang trên đường tiến quân đến Ân Thủy để tham gia phòng thủ ở đó, và khi họ đi qua Hứa châu[chú 42]. Mặc dù các binh sĩ Cảm Hóa vốn có tiếng là thiếu kỉ luật, song Trung Vũ tiết độ sứ Tiết Năng do trước đó từng nhậm chức Cảm Hóa tiết độ sứ nên nghĩ rằng các binh sĩ này sẽ tuân lệnh mình, và cho phép họ ở lại trong thành. Tuy nhiên, đến buổi tối, các binh sĩ Cảm Hóa quân nổi loạn với lý do nguồn lương thực cung cấp cho họ không đủ. Tiết Năng gặp quân Cảm Hóa và cố gắng trấn tĩnh họ, song thái độ khoan dung của Tiết Năng khiến các binh sĩ Trung Vũ quân và người dân Hứa châu tức giận. Chu Ngập khi đó là người dẫn các binh sĩ Trung Vũ quân tiến đến Ân Thủy, song ông ta quay sang tiến công và đồ sát các binh sĩ Cảm Hóa quân, các binh sĩ cũng sát hại Tiết Năng cùng gia quyến. Sau đó, Chu Ngập xưng là tiết độ sứ, Tề Khắc Nhượng lo ngại rằng Chu Ngập sẽ tiến công mình nên rút khỏi Ân Thủy và triệt thoái về Thái Ninh. Đáp lại, quân sĩ các quân khác đóng tại Ân Thủy tan rã, mở rộng đường cho Hoàng Sào. Hoàng Sào vượt sang bờ bắc Hoài Hà, và từ thời điểm này, quân của Hoàng Sào dừng hành vi cướp bóc của cải, song cưỡng ép nhiều tráng niên tòng quân để tăng cường lực lượng.[3]